نگرانی پدرخوانده اینترنت درباره هوش مصنوعی

به گزارش پایگاه خبری پایداری ملی به نقل از افتانا، به باور برت جانسون، مجرم سایبری سابق و از چهره‌های شناخته‌شده در تاریخ جرایم اینترنتی، همین مزیت زمانی می‌تواند در سال‌های پیش رو کفه ترازو را بیش از پیش به نفع مهاجمان سنگین کند. جانسون که زمانی از سوی سرویس مخفی ایالات متحده آمریکا «پدرخوانده اصلی اینترنت» نامیده شد، تجربه‌ای متفاوت از بسیاری از کارشناسان امنیت سایبری دارد.

 او پیش از تغییر مسیر زندگی خود، شبکه سازمان‌یافته Shadow Crew را ایجاد و اداره می‌کرد؛ گروهی که از نمونه‌های اولیه جوامع سازمان‌یافته جرایم سایبری به شمار می‌رود و بعد‌ها بسیاری از سازوکار‌های مورد استفاده در بازار‌ها و جوامع زیرزمینی اینترنت را شکل داد. او در گفت‌وگویی رسانه‌ای، درباره تأثیر هوش مصنوعی بر روند حملات سایبری، کاهش موانع ورود به دنیای جرایم دیجیتال و افزایش تهدید علیه سازمان‌های حیاتی صحبت کرده است.
 
از «پدرخوانده اینترنت» تا همکاری با مدافعان امنیت

جانسون در روایت زندگی خود توضیح می‌دهد که فعالیت مجرمانه‌اش به محکومیت بابت ۳۹ جرم، قرار گرفتن در فهرست افراد تحت تعقیب آمریکا و فرار از زندان منجر شد. او Shadow Crew را راه‌اندازی کرد؛ جامعه‌ای که به گفته خودش یکی از نخستین نمونه‌های بازار‌های سازمان‌یافته جرایم اینترنتی بود و سازوکار اعتماد میان اعضای جوامع مجرمانه آنلاین را پایه‌گذاری کرد.

در سال ۲۰۰۴، عملیات سرویس مخفی آمریکا علیه این شبکه به بازداشت ۳۳ نفر در شش کشور طی شش ساعت انجامید. جانسون که در ابتدا از دست مأموران فرار کرده بود، چند ماه بعد دستگیر شد. با این حال، مسیر زندگی او به همان‌جا ختم نشد. پس از دوره‌ای طولانی از فعالیت مجرمانه، فرار و دستگیری، سرانجام تصمیم گرفت مسیر خود را تغییر دهد.

او اکنون بیش از یک دهه است که در جبهه مقابل فعالیت می‌کند؛ با نیرو‌های انتظامی، شرکت‌ها و متخصصان امنیت سایبری همکاری دارد و تلاش می‌کند از کسب‌وکار‌ها و کاربران در برابر تهدید‌هایی دفاع کند که زمانی خودش بخشی از آنها بود.
 
هوش مصنوعی چگونه زمان حمله را فشرده می‌کند؟

محور اصلی سخنان جانسون در رویدادی که با همکاری Illumio در Black Hat USA برگزار شد، مفهوم «فشرده‌سازی حمله» با کمک هوش مصنوعی بود. از دید یک مهاجم، اجرای یک حمله موفق صرفاً به ورود اولیه به یک شبکه محدود نمی‌شود. مهاجم باید درباره سازمان هدف تحقیق کند، افراد و سیستم‌های ارزشمند را شناسایی کند، اطلاعات قابل سرقت را پیدا کند و در نهایت به چیزی برسد که برای سازمان بیشترین ارزش را دارد؛ همان چیزی که در ادبیات امنیت سایبری از آن با عنوان «جواهرات تاج» یا Crown Jewels یاد می‌شود.
تمام این مراحل زمان‌بر هستند.

به گفته جانسون، هوش مصنوعی می‌تواند بخش بزرگی از این فرایند تحقیق و شناسایی را کوتاه کند. در نتیجه مهاجم پس از دستیابی به یک نقطه ورود، می‌تواند بسیار سریع‌تر از گذشته تصمیم بگیرد که چه کاری انجام دهد و کدام منابع را هدف قرار دهد. این موضوع از نگاه دفاع سایبری اهمیت ویژه‌ای دارد، زیرا مدافعان معمولاً پس از مشاهده نشانه‌های نفوذ باید فرایند شناسایی، بررسی و واکنش را آغاز کنند؛ در حالی که مهاجم ممکن است بخش قابل‌توجهی از این تحلیل را پیشاپیش با کمک هوش مصنوعی انجام داده باشد. بنابراین، مسئله اصلی الزاماً این نیست که هوش مصنوعی خودش حمله را انجام می‌دهد. مسئله این است که می‌تواند زمان لازم برای انجام بسیاری از مراحل حمله را کاهش دهد و به مهاجم اجازه دهد در مدت کوتاه‌تری اقدامات بیشتری انجام دهد.
 
فعلاً کفه ترازو به نفع مهاجمان است

جانسون معتقد است در شرایط فعلی، هوش مصنوعی بیشتر از مدافعان به مهاجمان کمک می‌کند. دلیل این موضوع را نیز ماهیت واکنشی بسیاری از سامانه‌های دفاعی می‌داند. به باور او، یک سامانه هوش مصنوعی برای یادگیری از یک حمله باید ابتدا آن حمله را مشاهده کند و این موضوع باعث می‌شود بخشی از قابلیت‌های دفاعی همچنان ماهیتی واکنشی داشته باشند. از نگاه جانسون، ممکن است سه، پنج یا حتی هفت سال زمان لازم باشد تا استفاده از هوش مصنوعی در دفاع سایبری به سطحی برسد که بتواند به شکل جدی‌تری رویکردی پیشگیرانه داشته باشد. این به معنای بی‌فایده بودن هوش مصنوعی برای مدافعان نیست. برعکس، سازمان‌ها می‌توانند از این فناوری برای شناسایی آسیب‌پذیری‌های شناخته‌شده، بررسی وضعیت تجهیزات و سیستم‌ها و اولویت‌بندی اقدامات امنیتی استفاده کنند.
 
مشکل اصلی، به گفته جانسون، اغلب خودِ فناوری نیست؛ بلکه تأخیر در اقدام است. او با اشاره به این واقعیت که بسیاری از حملات از آسیب‌پذیری‌های شناخته‌شده استفاده می‌کنند، هشدار می‌دهد سازمانی که یک ضعف امنیتی را می‌شناسد، اما برای رفع آن اقدامی انجام نمی‌دهد، در عمل فرصت بیشتری در اختیار مهاجم قرار می‌دهد. به تعبیر او، انتشار یک وصله امنیتی می‌تواند برای مهاجم مانند اعلام عمومی این باشد که کدام درِ سازمان آسیب‌پذیر است؛ بنابراین اگر سازمان پس از انتشار وصله همچنان منتظر بماند، مهاجم نیز از همان اطلاعات برای شناسایی مسیر ورود استفاده خواهد کرد. در این شرایط، استفاده از هوش مصنوعی زمانی ارزش واقعی پیدا می‌کند که سازمان‌ها پس از شناسایی مشکل، واقعاً برای رفع آن اقدام کنند.
 
یکی دیگر از تغییرات مهمی که جانسون به آن اشاره می‌کند، کاهش موانع ورود به جرایم سایبری است. در گذشته، موفقیت در بسیاری از حملات سایبری به سطح قابل‌توجهی از دانش فنی نیاز داشت. اما اکنون بخش مهمی از فعالیت‌های مجرمانه به سمت مهندسی اجتماعی، فریب و دستکاری قربانیان حرکت کرده است. در جوامع مجرمانه آنلاین، افراد می‌توانند اطلاعات، آموزش‌ها و تجربیات خود را با یکدیگر به اشتراک بگذارند. فردی که دانش چندانی درباره یک نوع خاص از کلاهبرداری ندارد، می‌تواند از طریق این جوامع آموزش ببیند و به تدریج مهارت لازم را کسب کند.
 
هوش مصنوعی این روند را ساده‌تر کرده است. از دید جانسون، این فناوری می‌تواند به افراد کم‌تجربه کمک کند تا درباره روش‌های مختلف حمله اطلاعات به دست آورند، اهداف احتمالی را شناسایی کنند و حتی برای انجام برخی فعالیت‌های فنی راهنمایی دریافت کنند. او معتقد است این مسئله در حوزه برنامه‌نویسی اهمیت بیشتری دارد. در گذشته، ساخت ابزار‌های پیچیده مخرب، از جمله باج‌افزار، به مهارت‌های فنی قابل‌توجهی نیاز داشت. اما مدل‌های هوش مصنوعی امروزی در تولید و اصلاح کد بسیار توانمندتر شده‌اند و همین موضوع آستانه فنی لازم برای ورود به برخی فعالیت‌های مخرب را پایین آورده است.
 
تهدید بزرگ‌تر؛ حمله به زیرساخت‌های حیاتی

جانسون در ادامه گفت‌و‌گو تصویری نگران‌کننده‌تر از آینده ارائه می‌دهد. به اعتقاد او، هرچه دسترسی به ابزار‌های پیشرفته حمله آسان‌تر شود، اهدافی که پیش‌تر برای بسیاری از مهاجمان دست‌نیافتنی بودند، در معرض خطر بیشتری قرار می‌گیرند. او تأکید می‌کند که اگر ابزار‌های پیچیده حمله در اختیار طیف بسیار گسترده‌تری از افراد قرار گیرند، رقابت میان مجرمان نیز افزایش پیدا می‌کند و سودآوری حملات سنتی کاهش می‌یابد. در چنین شرایطی، مهاجمان برای دستیابی به اهداف ارزشمندتر ممکن است به سراغ بیمارستان‌ها، مدارس، شبکه‌های برق و سایر زیرساخت‌های حیاتی بروند. این تهدید زمانی جدی‌تر می‌شود که انگیزه مالی بر ملاحظات اخلاقی غلبه کند.
 
جانسون با اشاره به بازار‌های زیرزمینی اینترنت می‌گوید حتی برخی بازار‌های غیرقانونی نیز برای جلوگیری از فروش بعضی کالا‌ها یا خدمات خطرناک، محدودیت‌هایی وضع می‌کنند؛ اما این محدودیت‌ها الزاماً از یک نگرش اخلاقی ناشی نمی‌شوند، بلکه بیشتر به ترس از برخورد نیرو‌های انتظامی و پیامد‌های سنگین قانونی مربوط هستند. به همین دلیل، اگر فناوری بتواند انجام حملات را برای افراد بیشتری ساده کند، بازدارندگی نیز اهمیت بیشتری پیدا خواهد کرد.
 
بخش دیگری از این گفت‌و‌گو به حملات باج‌افزاری علیه مراکز درمانی اختصاص داشت. جانسون معتقد است بیمارستان‌ها به دلیل ماهیت فعالیت خود، در موقعیت بسیار دشواری قرار دارند. در مراکز درمانی، بسیاری از تجهیزات و سامانه‌ها مشمول الزامات خاص مربوط به به‌روزرسانی و تغییرات نرم‌افزاری هستند. این الزامات گاهی باعث می‌شوند برخی سیستم‌ها با سرعت کمتری نسبت به سایر محیط‌های سازمانی به‌روزرسانی شوند. جانسون بر ضرورت وجود مقررات تأکید دارد، اما معتقد است مقررات باید واقع‌بینانه و متناسب با شرایط امنیتی امروز باشند و مانع بهبود سریع وضعیت امنیتی سازمان‌ها نشوند. از نگاه او، آموزش امنیتی نیز نیازمند بازنگری جدی است. در بسیاری از مراکز درمانی، آموزش‌های مرتبط با حریم خصوصی و امنیت ممکن است به تماشای یک ویدئوی کوتاه و گذراندن یک دوره اجباری محدود شود؛ رویکردی که الزاماً رفتار واقعی کارکنان در برابر یک حمله را تغییر نمی‌دهد.
 
مشکل اصلی این است که مهاجم تلاش می‌کند قربانی را در یک موقعیت احساسی قرار دهد؛ جایی که فرد به جای منطق، بر اساس ترس، عجله یا اعتماد کاذب تصمیم می‌گیرد؛ بنابراین آموزش امنیتی نیز باید علاوه بر انتقال اطلاعات منطقی، نحوه واکنش افراد در شرایط واقعی و احساسی را تمرین دهد.
 
یکی از نگرانی‌های جدی جانسون درباره آینده، فراتر از بدافزار و نفوذ به شبکه‌هاست. او معتقد است توسعه هوش مصنوعی می‌تواند اعتماد عمومی به محتوای آنلاین را تضعیف کند. ترکیب جعل هویت، مهندسی اجتماعی، تولید محتوای مصنوعی و توانایی‌های روزافزون مدل‌های هوش مصنوعی می‌تواند شرایطی ایجاد کند که تشخیص واقعیت از جعل برای کاربران دشوارتر شود. در چنین فضایی، یک مهاجم لزوماً به ابزار فنی پیچیده برای فریب قربانی نیاز ندارد؛ ممکن است بتواند با ایجاد یک سناریوی باورپذیر، فرد را متقاعد کند که اطلاعات حساس را در اختیار او قرار دهد یا اقدامی انجام دهد که در نهایت به یک حمله منجر شود. از این منظر، تهدید اصلی هوش مصنوعی تنها «هوشمندتر شدن حملات» نیست؛ بلکه افزایش سرعت، مقیاس و باورپذیری آنهاست.
 
جانسون که تجربه شخصی خروج از دنیای جرایم سایبری را دارد، درباره امکان تغییر مسیر مجرمان نیز صحبت کرده است. او معتقد است بسیاری از مجرمان تا زمانی که اتفاقی جدی آنها را مجبور به توقف نکند، دلیلی برای کنار گذاشتن این مسیر نمی‌بینند. پول تنها عامل نیست؛ قدرت، اعتبار و توجهی که فرد در یک جامعه مجرمانه به دست می‌آورد نیز می‌تواند به یک انگیزه جدی تبدیل شود. از دید او، بسیاری از مجرمان برای خود یک «نقطه خروج» مالی تعیین می‌کنند؛ یعنی تصمیم می‌گیرند پس از رسیدن به مبلغ مشخصی فعالیت خود را متوقف کنند. اما تجربه جانسون نشان داده که این نقطه خروج معمولاً هیچ‌گاه فرا نمی‌رسد. وقتی فرد به مبلغ موردنظر می‌رسد، اهداف مالی بزرگ‌تر و سپس عوامل دیگری مانند قدرت و جایگاه اجتماعی جای آن را می‌گیرند. به همین دلیل، تغییر واقعی نیازمند تصمیمی بنیادی است. فرد باید مسئولیت انتخاب‌های خود را بپذیرد و بپذیرد که وضعیت فعلی زندگی‌اش تا حد زیادی نتیجه همان انتخاب‌هاست.
 
جانسون تأکید می‌کند که نمی‌توان هم‌زمان تصمیم گرفت زندگی سالم و قانونی داشت و در کنار آن، فعالیت‌هایی مانند سرقت اطلاعات کارت بانکی یا کلاهبرداری اینترنتی را تا زمانی که شغل قانونی درآمد کافی ایجاد کند ادامه داد. از نگاه او، تغییر واقعی زمانی آغاز می‌شود که فرد انتخاب کند در کدام سمت ایستاده است.
 
به گفته جانسون مزیت اصلی فعلی هوش مصنوعی برای مهاجمان، الزاماً توانایی اجرای خودکار حمله نیست؛ بلکه توانایی کاهش زمان لازم برای آماده‌سازی و تصمیم‌گیری است. مهاجمی که می‌تواند سریع‌تر هدف خود را بشناسد، نقاط ضعف را پیدا کند، اطلاعات ارزشمند را شناسایی کند و مسیر حمله را طراحی کند، در برابر سازمانی که هنوز در حال تحلیل هشدار‌ها و تصمیم‌گیری درباره نحوه واکنش است، مزیت قابل‌توجهی دارد. به همین دلیل، مقابله با تهدید‌های مبتنی بر هوش مصنوعی صرفاً به معنای استفاده بیشتر از هوش مصنوعی در ابزار‌های دفاعی نیست. سازمان‌ها باید سریع‌تر عمل کنند، آسیب‌پذیری‌های شناخته‌شده را بدون تأخیر برطرف کنند، آموزش‌های امنیتی را از حالت تشریفاتی خارج کنند و برای شرایطی آماده باشند که حملات نه‌تنها پیچیده‌تر، بلکه بسیار سریع‌تر از گذشته اجرا می‌شوند. هشدار جانسون در واقع درباره آینده‌ای است که در آن «زمان» به یکی از مهم‌ترین سلاح‌های مهاجم تبدیل می‌شود؛ و سازمانی که در واکنش به تهدید‌ها تأخیر کند، ممکن است پیش از آنکه فرصت دفاع پیدا کند، بازی را واگذار کرده باشد.